iT邦幫忙

2022 iThome 鐵人賽

DAY 18
0
自我挑戰組

AI :PyTorch系列 第 18

第十八天 PYTORCH中的LSTM和GRU的API

  • 分享至 

  • xImage
  •  

1 LSTM API
a torch.nn提供
b 實例化
LSTM(imput_size=emebedding_dim,hidden_size=lstm單元的個數,num_layer=層數,batch_first=數據中的batch_size)
c output,(h_n,c_n)=lstm(input(h_0,c_0))
input:[batch size,seq len,embedding dim]
h_0:[num_layer[1|2],batch_size,hidden_size]
c_0:同上
h_n,c_n:同上
output:[batch size,seq len,hidden_Size]
d output把每個時間步上的結果在seq_len這一維度進行了拼接
e h_n:把不同層的隱藏狀態在第o個維度上進行拼接

2 GRU API
a torch.nn提供
b GRU(參數同lstm)
c output,h_n=gru(input,h_0)
d 形狀同lstm

3 雙向的LSTM的APi
a 只需要把bidriectiional=true
b output的拼接順序:正向的第一個拼接反向的最後一個,最後一個維度進行拼接
https://ithelp.ithome.com.tw/upload/images/20221002/20152487buuCFGuK2n.png


上一篇
第十七天 梯度消失和梯度爆炸
下一篇
第十九天 聊天機器人
系列文
AI :PyTorch30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言